Chịu ảnh hưởng của người cha nuôi, với bí danh Đinh Dũng, ông tham gia đội "Biệt động quân N2", một tổ chức vũ trang bí mật hoạt động trong nội ô, làm nhiệm vụ khủng bố, ám sát những người cộng tác với người Pháp. Tháng 8 năm 1948, ông được Ban quân báo tỉnh Bà Rịa giao nhiệm vụ lên Tây Ninh tham gia đạo Cao Đài, trong vai một tín đồ mang tên Triệu Thiên Thương. Với vỏ bọc này, ông đã kết thân với Thiếu úy Phạm Ngọc Chẩn, một đồn trưởng đồn Cao Đài để nắm tình hình và vẽ sơ đồ, chuẩn bị cho kế hoạch tấn công của Việt Minh. Tuy nhiên, khi gần hoàn thành thì ông bị bắt đưa về Tây Ninh, nhờ sự can thiệp của Trung tá Phạm Ngọc Trấn, Tư lệnh quân đội Cao Đài miền Tây (anh ruột Thiếu úy Chẩn) nên ông được ra tù và tiếp tục hoạt động. Đến giữa năm 1953, do bị theo dõi khắt khe nên ông được rút ra căn cứ hoạt động.